Pod pritiskom: AI deepfake u ratnim zonama prisiljavaju Metu na hitne promene!
Meta je pod pritiskom nakon što su se na društvenim mrežama pojavili viralni video snimci rata između SAD-Izraela i Irana, koji su kasnije raskrinkani kao potpuno AI-generisani. Nadzorni odbor kompanije Meta poziva firmu da preispita pravila moderacije sadržaja kako bi sprečila širenje obmanjujućih videa u kriznim situacijama.
Odbor naglašava da korisnici moraju moći lako da prepoznaju kada je sadržaj digitalno izmenjen ili kreiran pomoću veštačke inteligencije, kako bi se smanjio rizik od dezinformacija.
Jači alati i precizno označavanje
Kompanija bi trebalo da razvije robusnije alate za otkrivanje AI-generisanog sadržaja i da ujednači način označavanja. Preporučeno je uvođenje novih oznaka poput „Visok rizik“ i „AI Visok rizik“ za materijale koji mogu obmanuti javnost ili izazvati paniku.
Pored toga, odbor predlaže primenu standarda za poreklo sadržaja i nevidljivih vodenih žigova, kako bi se jasno pokazalo kada je video ili slika generisana veštačkom inteligencijom.
Kritika trenutnog sistema
Meta trenutno koristi oznaku „AI Info“ za sadržaj koji je kreiran ili izmenjen pomoću AI, ali odbor smatra da ovaj sistem nije dovoljno pouzdan i sveobuhvatan. Implementacija standarda za poreklo sadržaja je često nedosledna, čak i za materijal koji je nastao pomoću Meta-inih alata.
Odbor upozorava da se ne može oslanjati samo na samodeklaraciju korisnika ili naknadni pregled, jer brzina širenja lažnog sadržaja često nadmašuje postojeće kontrole.
Novi zahtevi za moderaciju i sankcije
Predloženo je da Meta kreira posebna pravila za AI-generisani sadržaj sa jasnim uputstvima o poreklu, označavanju i obaveznoj samodeklaraciji. Takođe, preporučuje se unapređenje pravila o dezinformacijama kako bi se odmah reagovalo na sadržaj koji može izazvati nasilje ili ugroziti bezbednost.
Meta bi takođe trebalo da objavi jasnu listu kazni za korisnike koji ne otkriju da je sadržaj digitalno kreiran ili modifikovan, čime bi povećala odgovornost i transparentnost.
Zašto je ovo važno
Odbor upozorava da količina i kvalitet AI-generisanog sadržaja raste, a njegov uticaj na društvo može biti ozbiljan, naročito u kriznim situacijama. Viralni video snimci rata u Iranu i Venecueli u 2026. godini pokazuju koliko brzo lažne informacije mogu da se prošire.
Iako Meta nije obavezna da u potpunosti prihvati preporuke odbora, mora javno da odgovori na svaku u roku od 30 dana, što povećava transparentnost i omogućava korisnicima da budu informisani o koracima kompanije.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.
BONUS VIDEO: